I ricercatori avvertono il pubblico: "I criminali informatici possono accendere il riscaldamento di casa tua, girare video senza che tu te ne accorga e persino aprire le finestre".

Un invito è tutto ciò di cui i criminali informatici hanno bisogno per prendere il controllo di Gemini e manipolare i dispositivi connessi a una rete domestica, in un tipo di attacco noto come "promptware". Il promptware sfrutta l'integrazione di modelli linguistici di grandi dimensioni (LLM) nelle applicazioni per introdurre prompt dannosi in grado di compromettere gli assistenti AI che li integrano.

Il rischio per gli utenti è reale, come dimostrato da tre ricercatori dell'Università di Tel Aviv (Israele), Ben Nassi, Stav Cohen e Or Yair. Nel loro lavoro, hanno utilizzato attacchi promptware mirati all'assistente Gemini di Google per accedere all'architettura Workspace e manipolare i dispositivi della smart home o estrarre informazioni dalle email.

La variante di promptware utilizzata consente di inserire prompt dannosi in Gemini tramite e-mail, inviti al calendario o documenti condivisi. Ad esempio, i criminali informatici inviano alla vittima un invito al suo account Gmail o Calendario e, quando la vittima richiede informazioni su quell'e-mail a Gemini, il prompt dannoso si attiva e compromette l'assistente.

Ciò apre le porte alla manipolazione dei servizi e dei dispositivi utilizzati dalla vittima con Gemini, semplificando ad esempio il controllo del termostato, dell'illuminazione domestica o l'accesso alla posta elettronica.

Grazie a questo, i criminali informatici possono spegnere la luce, accendere il riscaldamento, trasmettere video in streaming senza che la vittima se ne accorga , eliminare eventi del calendario, estrarre dati dalle e-mail, geolocalizzare la vittima e persino aprire una finestra.

Questo tipo di attacco colpisce Gemini sia sulle app mobile che web, nonché sull'Assistente Google. Secondo i ricercatori, il 73% delle minacce analizzate nella loro ricerca rappresenta un rischio altamente critico. Come riportato, hanno informato Google di questa minaccia a febbraio e, durante questo periodo, l'azienda tecnologica ha implementato "difese multilivello" per mitigare i problemi di sicurezza identificati.